Cette horloge ChatGPT illustre le plus gros problème des IA génératives

Une horloge qui indique l’heure à l’aide de poèmes générés par ChatGPT fait le buzz sur les réseaux sociaux. Malheureusement, il arrive que l’engin prenne des libertés avec la réalité…

Le designeur Matt Webb vient de lever le voile sur une horloge animée par ChatGPT, l’intelligence artificielle générative d’OpenAI. Comme il l’explique sur Twitter, l’horloge a été programmée pour indiquer l’heure par le biais d’une courte rime de deux lignes. Les poèmes sont générés automatiquement par le modèle de langage GPT-3.

Hand on heart I did not include this kind of motivational positivity in the prompt!

I did describe the room from its pov, so it sometimes refers to books or the rug, or its own self as a small e-ink screen

Tbh I can’t look away. I need to get lunch but it’s compelling & magical pic.twitter.com/KTlHIMi6Pc

— Matt Webb ??? (@genmon) March 17, 2023

Interrogé par The Verge, le blogueur explique avoir demandé à ChatGPT de traduire l’heure « avec deux lignes de rimes », en étant imaginatif. Il a suffi d’une seule requête, incluant l’heure dans les paramètres. L’IA s’inspire de l’emplacement de l’horloge, de la disposition de la pièce et du moment de la journée pour concevoir les poèmes. Par exemple, le modèle a généré ce texte :

« Dans des étagères confortables, je réside, / Il est presque midi, l’horloge se confie ».

De nouvelles rimes apparaissent tous les minutes. Sans surprise, ChatGPT propose systématiquement une nouvelle création et ne réutilise pas ses précédents poèmes. Pour mettre au point l’accessoire, Matt Webb s’est servi d’un écran simple écran e-ink, un type d’affichage qui imite le rendu du papier, et d’un Raspberry Pi, le célèbre mini-ordinateur à prix réduit.

À lire aussi : comment Wikipédia envisage de se servir de ChatGPT

La sortie de l’AI Clock

Le bricoleur, qui jouit d’une certaine expertise dans la création de gadgets numériques, explique avoir reçu de nombreux messages d’internautes désireux d’acheter sa création. Dans un billet publié sur Substack, il explique se pencher sur deux approches en parallèle. Tout d’abord, Webb va travailler sur une horloge taillée pour le grand public, c’est-à-dire « assemblée et prête à être branchée ». Cette version de l’AI Clock sera facile à utiliser, mais il lui faudra du temps pour la fabriquer.

Il souhaite aussi commercialiser un kit d’assemblage de l’horloge, réservé aux bricoleurs et aux utilisateurs les plus débrouillards. Ce kit comprendra toutes les pièces, des instructions et tout le code nécessaire au fonctionnement de l’appareil.

L’ingénieux Matt Webb explique avoir déjà résolu le problème du coût. Le prototype coûtait en effet 1,80 dollar par jour. C’est le prix des requêtes continues envoyées par le biais de l’API de ChatGPT, qui permet aux développeurs de mettre au point leurs propres applications s’appuyant sur l’IA.

Évidemment, il ne s’attend pas à ce que chaque acheteur dépense près de deux dollars par jour pour faire fonctionner l’horloge. Matt Webb a alors décidé de passer par un service de Cloud partagé, qui « sera gratuit car il partage le coût entre tout le monde ». Il prévoit aussi de lancer un abonnement payant qui permet de personnaliser les poèmes générés par ChatGPT.

Une horloge qui se trompe d’heure

De l’aveu de son créateur, l’horloge, baptisée AI Clock, souffre d’un défaut majeur. Il arrive parfois que l’accessoire n’affiche pas la bonne heure. Toutes les quinze minutes à peu près, l’horloge va prendre des libertés avec l’heure pour les besoins de son poème. Au lieu d’adapter les rimes, elle va modifier l’affichage de l’heure…

L’horloge illustre parfaitement le principal défaut des intelligences artificielles génératives. De temps en temps, les IA se mettent à affirmer des choses erronées avec aplomb. Si vous lui demandez d’écrire un texte en se basant sur des faits, ChatGPT va bien souvent faire des erreurs de raisonnement ou inventer des choses. Le chatbot laisse libre cours à sa créativité, au détriment des faits. C’est également le cas de GPT-4, la dernière version du modèle de langage. On appelle ces dérives des hallucinations.

Ce défaut est commun à tous les chatbots animés par un modèle linguistique, de ChatGPT à Prometheus, l’IA de Microsoft Bing, en passant par Bard, le robot conversationnel de Google. Pour éviter les élans de créativité intempestifs, et les prises de liberté, Microsoft a de son côté choisi de brider Prometheus. L’utilisateur désormais possible d’ajuster la fibre créative du chatbot, en fonction des besoins du moment, par le biais de l’interface.

D’après Matt Webb, il serait possible de corriger les erreurs de l’horloge, vraisemblablement en ajustant la programmation et la requête de départ. Pour le moment, le designeur trouve plutôt ces défaillances amusantes.

Source : The Verge